简介:爬虫技术用来从互联网上自动获取需要的数据。课程从对爬虫的介绍出发,引入一个简单爬虫的技术架构,然后通过是什么、怎么做、现场演示三步骤,解释爬虫技术架构中的三个模块。最后,一套优雅精美的爬虫代码实战编写,向大家演示了实战抓取百度百科1000个页面的数据全过程
第3章 简单爬虫架构
本章介绍了精心提炼的一个简洁爬虫技术架构,通过动态图介绍了技术架构实现爬虫任务的流程,使大家对爬虫的整体组成和运行流程有整体的把握。
第4章 URL管理器和实现方法
本章介绍了简单爬虫架构的URL管理器模块,用于管理待爬取的URL集合和已爬取的URL集合,也介绍了实现URL管理器的几种方法
第5章 网页下载器和urllib2模块
本章介绍了简单爬虫架构的网页下载器模块,将网页下载下来然后才能进行后续的数据提取,本章然后介绍了Python自带的urllib2模块的各种使用语法用于网页的下载
第6章 网页解析器和BeautifulSoup第三方模块
本章介绍了简单爬虫架构的网页解析器模块,解析器用于从网页中提取价值数据和新的待爬取URL,本章然后介绍了BeautifulSoup这个强大的第三方模块用于数据的解析和提取
第7章 实战演练:爬取百度百科1000个页面的数据
本章是课程的核心部分,通过一套精心设计并编写的爬虫代码,实现了课程前面讲述的简单爬虫架构中各个组成部分,爬虫代码最终完成了百度百科1000个页面的数据爬取并进行了数据展示,本代码经过配置修改后,可以用来爬取任何网站数据。